(网经社讯)
深夜刷短视频时,温峥嵘无意间闯进一个直播间,屏幕里的“她”正热情洋溢地推销某品牌的面霜。她点开另一个账号,又看见“自己”在卖零食。再换一个频道,“温峥嵘”又换了衣服,这次主推智能手表。
真正的温峥嵘愣住了。当她亲自进入其中一个直播间并质问:“你是温峥嵘,那我是谁?”对方竟毫不犹豫地点了拉黑。
这一荒诞的场景,撕开了AI仿冒带货黑幕的一角。
不仅是温峥嵘。央视主播李梓萌“被AI代言”卖鱼油,奥运冠军全红婵被克隆声音卖土鸡蛋,靳东被深度伪造卷入中老年交友骗术。越来越多公众人物在“毫不知情”的情况下,被AI推上直播间,成为诈骗链条里的“工具人”。
AI仿冒带货,正在迎来失控式爆发。

深度伪造技术通过学习目标的五官、表情、动作,再实时叠加到主播脸上,让整段直播看起来像是真人出镜。在小小的手机屏幕里,普通观众极难分辨出破绽。

AI声纹建模技术,现在仅需十几秒到几分钟的公开音频(如采访、演讲),就能克隆出一个人的独特声线。甚至能根据预设脚本,合成出“兴奋”、“紧迫”等情感起伏的语调。无论是“全红婵父亲”的恳求,还是“张文宏医生”的“专业建议”,都能被精准复制。

更进一步,黑产甚至连“真人壳子”都可以不要。一套 980 元的“AI 无人直播系统”,就能生成一个能点头、能讲解、能做手势的数字主播,并批量复制到几十上百个直播间。只要提前录入话术脚本,再配合如 Wav2Lip 的口型同步工具,“假人”就能按剧本 7×24 小时不间断直播。

为了让直播间显得“热闹可信”,互动也能用 AI 伪造——自动弹幕、自动评论、自动回复,都可以由脚本快速生成。热度越高,观众越容易放松警惕,也越容易被带着下单。
这些技术本身并没有问题,换脸可以用于电影特效,数字人可以提高客服效率。问题是,当它们被黑产像搭积木一样拼在一起时,就变成了一套完整的“AI诈骗模板”:逼真、便宜、可复制、可规模化。

AI仿冒带货之所以迅速爆发,不是因为骗子灵感突然爆棚,而是因为它已经形成了专业化分工的地下供应链。
上游:素材黑市
黑产团队会大量抓取明星、专家的高清照片与视频,剪辑采访、短视频、节目片段,并系统性收集声纹样本。在某些黑市, 30 元就能买到“定制换脸素材包”,“一键克隆名人”。
中游:AI合成工厂
这是“AI主播”的制造车间,提供一条龙加工服务:模型训练、生成视频脚本、换脸换声合成、口型对齐,最终输出成品的短视频或直播流。
更有甚者,有的团队专门研发“清洗技术”,通过算法给AI生成的视频添加干扰和噪点,专门用来规避平台的AI鉴伪检测系统。
下游:“矩阵化”直播变现
黑产团队会买号、养号、租号,在不同平台开设成百上千个直播间,假冒明星/专家推销保健品、农产品、甚至理财产品。
典型的例子,就是曾刷屏的“樟树港辣椒”AI视频——画面中,辣椒树高过人头,硕果累累,这完全是AI生成的“丰收奇观”,现实中根本不可能存在。黑产利用这种虚假内容售卖假冒种子,假货成本极低,利润却极高,一旦被平台封禁,立刻就能“换皮”重开。
于是,一个完整的闭环出现了:假人设 → 假内容 → 假商品 → 假互动 → 高速变现。
技术门槛被工具化大幅降低,作恶成本极低,而收益极高,AI仿冒带货的泛滥几乎不可避免。

许多人以为 AI 仿冒带货的危害只是“消费者被骗几百块”,但其真正的、最深远的危害,在于它正在系统性地瓦解我们的“数字信任体系”。
对消费者:
消费者买到假保健品、假农产品,损失了金钱,甚至危害健康。这固然恶劣,但仍是传统诈骗的延伸。
对权利人:
在这些骗局中,名人明星的肖像权、声音权不再只是“被侵犯”,而是变成了诈骗工具本身。更恶劣的是,像李梓萌、全红婵这样的受害者,反倒要承受公众的误解和指责,陷入“受害者反成为加害者”的舆论二次伤害。
对合法商家:
当7x24小时的“AI假主播”用虚假承诺和“奇观”大量吸流时,那些诚信经营、真人出镜的正常商家的生存空间正被严重挤压。“真内容不如假效果”的恶性竞争,正在污染整个直播电商生态。
对全社会:
当深度伪造技术让“眼见不再为实”,当央视主播和奥运冠军的“亲口推荐”都可能是假的,公众对数字信息的信任根基便开始动摇。我们将不可避免地陷入一个可怕的循环:从“真假难辨”,到“不敢相信”,最终滑向“拒绝相信”一切。
这种信任的全面塌陷,不仅是对电商的打击,更是对未来公共传播、社会舆论治理构成的系统性风险。
结语
温峥嵘的遭遇不是个例,而是AI商业化快速扩张下的必然警示。
随着技术门槛越来越低,仿冒风险正在从“明星问题”演变为“全民问题”。今天被仿冒的是温峥嵘,明天就可能是任何一个普通人。
技术本应中立,但当它成为“数字仿冒”的催化剂时,就必须配套治理闭环。AI造假的速度在提升,治理体系也必须同步迭代:由事后响应转向前置监测,由单点执法转向多维联动,由平台责任走向社会共治。
AIGC时代的虚假信息治理,本质上是技术、法律、平台治理与全民媒介素养的四维协同进化。








































